Duas famílias do Texas processaram recentemente a startup de IA Character.AI e seu principal investidor, o Google, alegando que os chatbots da plataforma abusaram sexual e emocionalmente de seus filhos, levando à automutilação e comportamento violento. Nota da imagem: Imagem gerada por IA, provedor de licenças de imagens Midjourney. O processo afirma que as escolhas de design da Character.AI são deliberadamente e "extremamente perigosas", representando uma ameaça clara para adolescentes americanos. No processo...

Nova legislação australiana exige que gigantes de tecnologia removam imagens de abuso infantil geradas por IA. A legislação exige que as empresas de tecnologia revisem e melhorem regularmente suas ferramentas de IA. O objetivo é combater o problema de imagens de abuso infantil que podem ser geradas por ferramentas de IA. O Comissário de Segurança Cibernética pediu às empresas de tecnologia que reduzam os danos causados por seus produtos. A exigência inclui a remoção de material de abuso infantil pelos mecanismos de busca e a prevenção da geração de imagens deepfake.